Tembok ini dibina mulai 13 Ogos 1961 iaitu selepas 15 tahun Jerman Timur ditubuhkan. Ketika itu Jerman Timur diperintah oleh Walter Ulbricht. Pembinaan ini telah dipersetujui Nikita Khrushchev, pemimpin Soviet yang risau dengan penguasaan Amerika Syarikat dan sekutunya di Jerman.

Fasa pembinaan

Pembinaan pagar (1961). Pagar berduri dibaiki (1962-1965). Tembok batu (1965-1975). Grenzmauer 75 (Border Wall 75) (1975-1989) . Tembok ini setinggi 3.6 meter dan 1.2 meter lebar. Ia hampir menyamai fungsi Tembok Besar di China. Kos pembinaan ialah 16,155,000 mark Jerman Timur. Ada 116 menara tinjau dan 20 bunker.